科技新闻
《奥本海默》诺兰专访：毁灭人类，原子弹比 AI 可怕
人类放弃责任，才是最危险的。
标题：How Christopher Nolan Learned to Stop Worrying and Love AI
链接：
https://www.wired.com/story/christopher-nolan-oppenheimer-ai-apocalypse
作者：MARIA STRESHINSKY
编译：靖宇
01
毁灭世界，原子弹第一
问：感觉你和艾玛（诺兰的妻子，他一直以来的制片人）的工作，从某种程度上，一直在为《奥本海默》做准备。诺兰：这就是我对这部电影的感觉。我对所做的每个项目都有这种感觉。因为我试图在以前所学的基础上继续前进。每当你完成一部电影，都会有一些问题悬而未决。因此，在下一部电影中，你会把留下来的问题捡起来。在《奥本海默》中，非常有字面意义，《信条》（Tenet，诺兰的前一部电影）中就提到了奥本海默。问：所以他在你的脑海中已经存在了一段时间。诺兰：奥本海默的故事已经伴随我多年。这是一个令人难以置信的想法——有人试图通过计算，来寻找理论和现实世界之间的关系，然后有一个非常小的可能性，他们将摧毁整个世界。然而，他们还是按下了按钮。问：非常戏剧性。诺兰：我是说，这简直是最戏剧性的时刻，在整个人类历史上来看。问：很多人可能不知道，当我们在 1945 年投下炸弹时，这不仅是一个可怕的时刻，也正是这个时刻，让人们了解到人类现在拥有了可以消灭整个人类的能力。诺兰：我对奥本海默的感觉是，很多人知道这个名字，知道他与原子弹有关，在美国历史的关系中还发生了一些复杂的事情，此外就没了。坦率地说，对我来说，这就是我的电影的理想观众。那些什么都不知道的人将会得到最疯狂的体验。因为这是个疯狂的故事。问：你是指他的个人故事？诺兰：观众应该了解，因为他是有史以来最重要的人之一。
问：电影里有一句台词，有人对奥本海默说，你可以让任何人做任何事。类似这样的话。他是一个出色的管理者，对一切了如指掌，在那个房间里，有些科学家在做 X，而在另一个房间里，那些科学家在做 Y，他是一个能把这一切记在脑子里的人。诺兰：他知道如何通过他的角色的戏剧性来激励人们，投射他自己的光辉。他给所有的科学家、官员，每个人一个聚焦的目标。问：他拥有真正的魅力。诺兰：魅力，这是个完美的词。它让一切得以成形，这部电影经常涉及到这一点，正是他的魅力，让这些学者、这些理论家能够走到一起，用他们自己的双手建立起如此巨大、如此重要的东西。这是个奇迹。问：谈到建立一个巨大的东西，我最近在温哥华的 TED 会议上，最有趣的会议之一是一系列关于生成式人工智能的谈话。很多发言者都提到了原子弹、核武器。最后一位发言者是一位技术专家——他谈到了人工智能不可避免的武器化。演讲结束时他说，维持世界秩序的唯一途径是拥有更好的人工智能武器。那是一种威慑。这听起来很像人们对原子弹的看法。感觉你的电影找到了最合适的发行时机。诺兰：我认为这种关系是一个有趣的问题。这是不一样的。但这是最好的比喻——这就是为什么我在《信条》中使用它——不假思索地向世界释放一项新技术的危险性。这是一个警告性的故事。我们可以从中吸取教训。话虽如此，我确实相信，就改变和危及世界的技术而言，原子弹是独一无二的。问：而且这些技术的起源是不一样的？诺兰：有根本的区别。研究原子分裂的科学家们一直试图向政府解释：（核能）是自然界的一个事实，来源于上帝、或任何创世者。这只是关于自然的知识，它不可避免地将会发生。没有人可以隐藏它，我们没有创造，也不拥有它。他们是这么看的。问：换句话说，他们觉得自己只是揭示了已经存在的东西。诺兰：而我认为你很难对人工智能提出这样的论点。当然，肯定有人会这样做。问：你一定是在炸弹的阴影下长大的。我是在 20 世纪 80 年代的英国长大的，我们有一系列核裁军之类的运动，人们非常、非常清楚核武器的威胁。当我 13 岁时，我和朋友们相信，我们最终会在核灾难中死去。问：但你们没有，世界在继续前进。有一天，我和史蒂文·斯皮尔伯格谈起这个问题，他是在 60 年代古巴导弹危机的威胁下长大的。一样一样的。在人类历史上，有些时候，核战争的危险对我们来说是如此的触手可及、触目惊心，以至于我们对它非常了解。当然，我们也只能担心这么久，然后继续前进，开始担心其他事情。问题是，危险实际上并没有消失。问：对。我的意思是，我觉得一个月前，我们都在担心某些国家可能真的会使用核武器。诺兰：我记得 80 年代的情况是，对核战争的恐惧已经退去，转而对环境破坏的恐惧。这几乎就像人类无法对单一一种威胁保持长时间的恐惧，我们与恐惧有一种复杂的关系。是的，某些国家一直在利用这种末日威胁和这种恐惧来摇旗呐喊。这让人非常不安。
02
将 AI 捧上神坛，
才最危险
问：和人工智能末日的威胁一样让人不安？诺兰：好吧，人工智能在武器系统方面的增长，以及它将产生的问题在很多年前就已经非常明显，很少有记者费心去写它。现在有一个聊天机器人可以为当地报纸写一篇文章，突然就成了一个危机。问：我们这些做媒体的人，多年来一直在这样做。盲目追求。我们中的一些人正在写关于人工智能的文章，因为它可以使我们失去工作。诺兰：这就是问题的一部分。对我来说，人工智能是一个非常简单的问题，这就像算法这个词。我们看到公司使用算法，现在是人工智能，作为逃避其行为责任的一种手段。问：请多解释两句。诺兰：如果我们认可人工智能是全能的观点，我们就是认可它可以减轻人们对其行为的责任——在军事上、社会经济上等等。人工智能最大的危险在于，我们将这些神一样的特性归于它，从而让我们自己摆脱了困境。
我不知道这其中的神话基础是什么，但纵观历史，人类有这种倾向，即创造虚假的偶像，以我们自己的形象塑造一些东西，然后说我们有神一样的力量，因为我们做出了这些东西。问：这感觉非常，非常正确。就像我们正处于那个临界点。诺兰：正是如此。问：有了这些大型的语言模型，机器甚至下一步可能开始自学。诺兰：洛杉矶时报上有一篇关于 ChatGPT 和 OpenAI 的有趣文章。它基本上 ChatGPT 是一个销售手段，OpenAI 现在是一家私人公司。他们有世界上最伟大的销售机器，而这是一个非常危险的东西。也许我们不应该推向大众，因为现在每个人都想要 AI 助手了。这并不意味着这里没有真正的危险，因为我觉得有。但我个人，这只是我的观点，我认为危险在于放弃责任。问：人们一直说需要有一个国际机构来监管 AI。诺兰：但这是科技公司最古老的政治伎俩。对吧？这就是，你知道，SBF 与 FTX 做的事（加密币交易所崩盘丑闻）；扎克伯格多年来一直要求被监管。因为他们知道，我们选出来的官僚，根本搞不清这些问题。问：正如我们从国会听证会上看到的那样？诺兰：他们又能说啥呢？我的意思是，这是非常专业的东西，当权者对创作者和奥本海默——让我还是带回到奥本海默。奥本海默的问题是，他非常看重战后科学家的作用——他们作为专家，必须弄清楚如何控制核力量。但当你看到发生在他身上的事情时，你就会明白，那是永远不会被允许发生的。这是科学和当权者之间非常复杂的关系，它从未像奥本海默的故事那样被残酷地暴露出来。我认为可以从中吸取各种教训。
问：比如说？诺兰：所以他试图从体制内开展工作，而不是转身就说，你知道，我们需要的是爱，或者有的没的。他的方法非常实际，但还是被击垮了。这是非常复杂的，我认为现在的这些「发明家」，他们说「我们需要被监管」是非常虚伪的。问：奥本海默希望科学能够被分享。诺兰：他使用的是坦诚（Condor）这个词。坦诚。问：他的想法似乎随着氢弹的出现而发生了变化？诺兰：不，他也相信氢弹的事。这事有点意思，因为在某种程度上，有点剧透。但在另一个方面，那是历史，你能谷歌搜索。在这个重要时刻，随着氢弹计划的推进，他开始发表演讲，他说，「我希望我能告诉你我所知道的。我不能。如果你知道我所知道的，你会明白，我们都必须分享信息。本质上讲，这是我们避免毁灭世界的唯一途径。」所以坦率是他认为最实际的手段。他认为联合国在未来是一个强大的机构，有真正的行动能力。他认为对全球对原子能的控制，才是确保世界和平的唯一途径。显然，这并没有发生。问：他没有预见到现在正在发生的事情，民主国家的缓慢衰落。诺兰：我认为他根本没看到这一点，当时还是一个非常乐观的时刻。问：这就是为什么要有一个世界性的人工智能管理机构。诺兰：对。但这是与拒绝受地域限制的科技公司打交道时的问题。从制度上讲，科技公司被鼓励、并被允许规避政府监管。这已经成为一种「道德观」。顺便说一下，这把我弄的好像认为硅谷很邪恶，所有这些人都很可怕。我不这么认为。这只是体制（System），它就是这么运行的。问：在安全问题层面，核武器的制造需要特定元素，但 AI 没有这个限制。诺兰：在第二次世界大战期间，英国的核弹计划是非常复杂的。他们有很多伟大的科学家。但丘吉尔政府意识到，他们只是没有足够的资源。所以他们把他们的一切都给了美国人。他们说，你们有体量，远离前线有，有工业基础。在我的研究中，我读到一个统计数字，关于参与制造第一颗原子弹的美国人的数量——大概在 50 万左右。数家公司参与，这是一个巨大的物理过程，这就是为什么到今天，一个国家偷偷做核试验很容易被发现。因此，有一些事情给我们一点保证，这个过程可以被管理。而我认为这些限制，没一个适用于人工智能。问：对，确实不使用于 AI——特别是当我们所谈论的人工智能的一些东西是一种「更软」的威胁。飞速蔓延的虚假信息，技术上的失业。诺兰：确实，但我不太——我觉得人工智能仍然可以成为非常强大的工具。我对此持乐观态度，我真的很乐观。但我们必须把它看作是一种工具，挥舞它的人仍然必须保持对挥舞该工具的责任。如果我们赋予人工智能以人类的地位，就像我们在某些时候对公司所做的那样，那么是的，我们将有巨大的问题。
03
AI 很好，但坚持传统
问：你是否看到人工智能中的美妙之处，特别是在电影制作方面？诺兰：哦，当然。整个机器学习应用于深度伪造技术（Deepfake），这是在视觉效果和音频方面的一个非凡的进步。从长远来看，在环境营造方面，例如造出一扇门或者窗子。如果将事物外观、事物的反光等等大量数据汇成数据库，它将是非常强大的工具。问：你会用 AI 去创作吗？诺兰：我是非常老派的「模拟」（Analog）电影人。我用胶片拍摄，试图给演员一个完整的现实。我对技术的立场，就其与我的工作的关系而言，是我想把技术用在它最好的地方。例如，如果我们做一个特技，一个危险的特技。你可以用更显眼的威压来做，然后再后期抹掉，类似这样的事情。问：意思是这将提高视觉效果的便利性和效率。诺兰：这不是空手套白狼，它是从一个更详细、更数据驱动的想法出发的。它可能最终打破动画和摄影之间的屏障，因为它是一个混合体。如果你告诉一个艺术家，比如说，画一张宇航员的照片，他们是根据记忆或参考资料来进行发明。有了人工智能，这是不同的方法，你实际上是在使用整个图像的历史。问：使用真实的图像。诺兰：使用真实的图像，但以一种完全的、根本性的重建方式——这当然会引起重大的艺术家版权问题，而这必须得到妥善处理。
问：让我们回到科学和你的电影上来。在你客串编辑的 2014 年 12 月的《WIRED》杂志中，有一句话，你说：「讲故事和科学方法之间的关系让我着迷。这并不是真的关于智力上的理解。那是一种把握某种事物的感觉」。跟我说说你对科学的热爱吧。诺兰：嗯，我一直对天文学和物理学问题感兴趣。我在《星际穿越》中探索了这个爱好。当我弟弟（乔纳森·诺兰）写剧本时，他会看爱因斯坦的思想实验，他发现其中一些实验有一种特别的忧郁感，而那都是与时间中的部分有关的。比如，被分开的双胞胎，一个被带走回来后，另一个长大了一些，你知道吗？爱因斯坦在思考物理学，和你如何做这些思想实验，你如何构思这些想法，有非常相同的「文学性」（literary quality）。物理学家需要的可视化过程与文学创作没什么不同。问：你在电影的剪辑阶段有这样的感觉吗？诺兰：我在电影制作的每个阶段都有这种感觉。我的很多工作是试图表达对事物形状的直觉和感觉。这可能很困难，也很复杂。问：我发现，如果我正在创作一个故事，但我不知道结构、流程，那就有问题了。我无法以一种有意义的方式谈论这个作品。诺兰：我以一种非常地理或几何学角度来思考结构和模式。多年来，我试图采用一种从头开始的结构方法，但最终它是一个非常本能的过程：这种感觉是否有一个叙事的形状，以及它是如何形成的？我很着迷地意识到，物理学家进行着非常类似的过程。真的很有趣。问：也许这是对《星际穿越》的致敬，但物理学家似乎总是如此深爱物理学。诺兰：我热衷于追求真理，热爱科学方法。我讨厌看到它被媒体中的科学家或代表科学家发言的媒体所歪曲。纯粹的科学方法，以及科学不断寻求自我反驳的想法，让它比宗教或者其他任何东西，都更能提升人类的思维。问：在这次采访之前，我和我母亲一起看了你的电影。她感觉你的电影可能传递一种非常反消极主义的信息。《敦刻尔克》、《星际穿越》、《蝙蝠侠》。或者，这是乐观主义？诺兰：《盗梦空间》的结尾，正是如此。有人对那个结局有一种虚无主义的观点，对吧？但同时，他也向前看了，和他的孩子们在一起。这种模糊性不是一种情感上的模糊性。对观众来说，这是一种智力上的模糊。有趣的是，我认为《盗梦空间》和《奥本海默》的结局之间，有一种有意思的关系可以探讨。奥本海默有一个复杂的结局、复杂的感情。问：早期观众的反应如何？诺兰：有些人离开电影时处于绝对崩溃状态。他们说不出话来。那些存在于历史和事实层面的恐惧，电影都有表现。但对人物的爱，对关系的爱，和我之前所有的作品一样强烈。
*头图来源：MAGNUS NOLAN
极客一问你认为 AI 危险吗？
热点视频
苹果 CEO 库克在采访中提及他与父母的相处模式，以及自己成功说服父亲开始使用iPhone的故事。点赞关注极客公园视频号，观看更多精彩视频